Năm 184, ba anh em Trương Giác, Trương Bảo, Trương Lương cầm đầu cuộc nổi dậy Khăn Vàng ở quận Cự Lộc. Chu Tuấn được tiến cử cùng Hoàng Phủ Tung đi đánh dẹp.

Chu Tuấn theo Hoàng Phủ Tung lần lượt đánh bại quân Khăn Vàng nhiều trận tại Dĩnh Xuyên, Nhữ Nam và nước Trần. Sau khi diệt được ba anh em Trương Giác, Hoàng Phủ Tung dâng biểu lên Hán Linh Đế kể công Chu Tuấn. Ông được phong làm Trấn tặc trung lang tướng.

Lực lượng tàn dư của Khăn Vàng còn khá mạnh. Triệu Hoằng được tôn làm tướng, tập hợp được vài vạn quân. Chu Tuấn cùng Thứ sử Kinh châu là Từ Cù và Thái thú Nam Dương là Tần Hiệt hợp binh được 18.000 người cùng tấn công Triệu Hoằng. Ba tướng vây đánh từ tháng 6 đến tháng 8 năm 185 vẫn không thắng được. Có người tâu Chu Tuấn không được việc, nên gọi về kinh, nhưng Tư không Trương Ôn dâng sớ khuyên Hán Linh Đế nên tin tưởng Chu Tuấn. Linh Đế nghe theo, kiên nhẫn chờ tin Chu Tuấn. Quả nhiên không lâu sau ông phá được Uyển Thành, giết chết Triệu Hoằng.

Quân Khăn Vàng lại tôn Hàn Trung làm tướng, tái chiếm Uyển Thành. Chu Tuấn ít quân hơn, không thể giao tranh đối diện, bèn cho mở vòng vây, cắm doanh trại và dựng núi đất đối diện với thành. Ông cho quân làm nghi binh giả cách muốn đánh mặt nam, quân Khăn Vàng dồn quân ra ứng chiến. Chu Tuấn tự mình lĩnh 5000 tinh binh tấn công phía đông bắc. Quân Hán hăng hái trèo lên mặt thành đánh vào trong. Hàn Trung vội bỏ chạy vào trong Tiểu thành cố thủ, sau đó liệu thế không chống được bèn sai người ra cầu xin đầu hàng.

Các tướng định cho Hàn Trung đầu hàng. Chu Tuấn không nghe, cho rằng[6]:

Trên chiến trường thường có tình trạng ngoài mặt tương đồng nhưng thực tế khác xa. Xưa kia Tần, Hạng (chỉ thời Hán Sở) loạn lạc, dân chúng không có quân chủ cố định nên phải trọng thưởng cho người đầu hàng để mọi người quy phục. Nay chính thể thống nhất, chỉ có bọn Khăn Vàng làm loạn, dung nạp kẻ đầu hàng không thể khích lệ người ta hướng thiện mà chém giết có thể khiến người ta sợ tội. Nếu chúng ta tiếp nhận đầu hàng là mở đường cho kẻ phản nghịch. Sau này, cứ có lợi thì chúng nổi dậy, bất lợi thì xin đầu hàng. Nhận hàng là nối giáo cho kẻ làm phản, không phải kế hay.

Vì vậy Chu Tuấn thúc quân công phá nhưng liên tiếp mấy tháng không hạ được. Ông lên núi quan sát doanh lũy quân địch và bàn với Tư mã Trương Siêu rằng Hàn Trung bị dồn đường cùng nên liều chết kháng cự; vì vậy ông dự định cởi bỏ vòng vây cho Hàn Trung chạy ra rồi sẽ truy kích.

Hàn Trung thấy vòng vây được mở, bèn mang quân ra ngoài. Chu Tuấn thừa cơ tấn công, đại phá quân Khăn Vàng, truy kích hơn 10 dặm, giết hơn 1 vạn người[7]. Hàn Trung không chống cự được đành phải đầu hàng, bị Tần Hiệt giết chết.

Những người còn lại của Khăn Vàng lại tập hợp tôn Tôn Hạ làm chủ, lại chiếm đóng Uyển Thành. Chu Tuấn tấn công lần thứ 3, hạ được thành. Tôn Hạ bỏ chạy, Chu Tuấn lại truy kích giết hơn 1 vạn người nữa. Quân Khăn Vàng tan vỡ chạy tứ tán.

Tam quốc diễn nghĩa, hồi 1 có kể trận này với sự tham gia của ba anh em Lưu Bị, Quan Vũ, Trương Phi.

Đầu năm 186, Chu Tuấn được Hán Linh Đế bổ nhiệm làm Hữu xa kỵ tướng quân. Ông dẫn quân về kinh đô Lạc Dương, được phong làm Quang lộc đại phu, tăng ấp lên 5000 hộ, cải phong làm Tiền Đường hầu.

Ít lâu sau mẹ ông mất. Chu Tuấn về nhà để tang rồi mới ra làm quan tiếp. Ông được bổ nhiệm làm Thiếu phủ (phụ trách tài chính), Thái bộc.

Quân Khăn Vàng vẫn không chấm dứt hoạt động, nông dân tại các vùng bị bóc lột nặng nề vẫn nổi lên theo các tướng Khăn Vàng chống triều đình, tập hợp từng nhóm nhỏ thì 6-7000 người, nhiều thì 2-3 vạn người[7]. Trong các lực lượng này, quân Trương Yên là mạnh nhất. Trương Yên chiếm cứ Hắc Sơn, có hàng chục vạn người đi theo, nhà Hán không thể chế ngự được. Mãi về sau Trương Yên quy phục triều đình, được phong làm Bình nam trung lang tướng, coi việc quân ở Hà Bắc.

Trương Yên lại cất quân chống triều đình, tiến sát đến kinh thành. Triều đình bổ nhiệm Chu Tuấn làm Thái thú Hà Nội, mang quân đánh Trương Yên. Chu Tuấn xuất quân nhanh chóng đánh bại Trương Yên, được thăng làm Đồn kỵ, Hiệu úy cổng thành, Hà Nam doãn.